package com.flink.latedata;

import com.flink.datasource.UserSource;
import com.flink.entity.User;
import com.flink.window.WindowFunctionDemo;
import com.flink.window.WindowProcessAndAggregateFunction;
import org.apache.flink.api.common.eventtime.SerializableTimestampAssigner;
import org.apache.flink.api.common.eventtime.WatermarkStrategy;
import org.apache.flink.streaming.api.datastream.DataStream;
import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.windowing.assigners.TumblingEventTimeWindows;
import org.apache.flink.streaming.api.windowing.time.Time;
import org.apache.flink.util.OutputTag;

import java.time.Duration;

/**
 * 描述:
 * 侧输出流 demo
 *
 * @author yanzhengwu
 * @create 2022-08-01 0:37
 */
public class LateDataDemo {

    public static void main(String[] args) throws Exception {

        //声明执行环境
        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
        //测试为了保证元素顺序并行度设置为1，可以理解为单线程执行
        env.setParallelism(1);
        //设置水位线生成的间隔 这里给的是100毫秒 ,flink 默认是200毫秒 ，flink 可以达到毫秒级别的效率
        env.getConfig().setAutoWatermarkInterval(100);


        //TODO 无序流的watermark生成策略
        SingleOutputStreamOperator<User> stream = env.addSource(new UserSource())       //生成水位线和时间戳的策略对象
                .assignTimestampsAndWatermarks(
                        //返回一个具体的策略对象(TODO 这里是乱序流的处理方法，给了一个延迟2秒的策略，也可由理解为 数据延迟多长时间能够全部到位)
                        WatermarkStrategy.<User>forBoundedOutOfOrderness(Duration.ofSeconds(2L))
                                //返回策略对象的具体实现
                                .withTimestampAssigner(new SerializableTimestampAssigner<User>() {
                                    /**
                                     * 此方法为指定以事件时间的具体时间戳字段
                                     *
                                     * @param element
                                     * @param recordTimestamp
                                     * @return 返回的则是一个毫秒数的时间戳
                                     */
                                    @Override
                                    public long extractTimestamp(User element, long recordTimestamp) {
                                        return element.getTimestamp();
                                    }
                                }));
        //打印数据和 计算结果进行区分
        stream.print("data==>");
        //声明一个侧输出流标记，TODO 注意 ：一定要一个匿名类 否则泛型擦除拿不到会报错！！！
        OutputTag<User> outputTag = new OutputTag<User>("late") {};

        //数据倾斜就是为了在一定场景下必须等所有数据都到期了在进行计算
        stream.keyBy(data -> true)
                .window(TumblingEventTimeWindows.of(Time.seconds(10L)))
                .allowedLateness(Time.minutes(1))
                .aggregate(new WindowProcessAndAggregateFunction.MyAggregateFunction(), new WindowProcessAndAggregateFunction.MyWindowProcessFunction())
                .getSideOutput(outputTag)
                .print();
        //TODO 获取侧输出流,这里可以直接连接数据做比对操作，比如迟到了几分钟的数据来了但是窗口关闭了，侧输出流获取的数据在是实际数据库了做比对和增量
        stream.getSideOutput(outputTag).print("late");

        env.execute();
    }


}
